home *** CD-ROM | disk | FTP | other *** search
/ Skunkware 5 / Skunkware 5.iso / src / X11 / wais / ir / ir.c < prev    next >
C/C++ Source or Header  |  1995-05-09  |  40KB  |  1,339 lines
  1. /* WIDE AREA INFORMATION SERVER SOFTWARE:
  2.    No guarantees or restrictions.  See the readme file for the full standard
  3.    disclaimer.    
  4.   
  5. */
  6.  
  7. /* Change log:
  8.  * $Log:    ir.c,v $
  9.  * Revision 1.49  92/05/10  14:43:35  jonathan
  10.  * Made a little safer on NULL docid's when parsing.
  11.  * 
  12.  * Revision 1.48  92/05/05  14:56:33  jonathan
  13.  * Added definition of S_ISDIR for Mach and NeXT.  Fixed isdoctype macro to
  14.  * check for NULLs.
  15.  * 
  16.  * Revision 1.47  92/05/04  11:28:26  jonathan
  17.  * Changed logging result list to use log_level a little better.
  18.  * 
  19.  * Revision 1.46  92/04/30  12:24:45  jonathan
  20.  * split =* for ULTRIX CC.
  21.  * changed a couple of s_free's to free's for ULTRIX CC too.
  22.  * 
  23.  * Revision 1.45  92/04/01  17:08:14  jonathan
  24.  * Added code to handle FTP-like searches.
  25.  * 
  26.  * Revision 1.44  92/03/23  13:25:22  shen
  27.  * only print out the number of the results but not the message in the log
  28.  * 
  29.  * Revision 1.43  92/03/18  08:55:45  jonathan
  30.  * Removed databaseName argument to getDocumentText and getData.
  31.  * 
  32.  * Revision 1.42  92/03/05  07:07:20  shen
  33.  * add two more dummy arguments to call to init_search_engine
  34.  * 
  35.  * Revision 1.41  92/02/23  10:37:53  jonathan
  36.  * enforced limit on results in handleRelevanceFeedbackSearch (particularly
  37.  * for handline help queries).
  38.  * 
  39.  * Revision 1.40  92/02/23  09:57:57  jonathan
  40.  * Prevent return of help messages if query is empty but there are relevant
  41.  * documents.
  42.  * 
  43.  * Revision 1.39  92/02/21  11:07:25  jonathan
  44.  * Added RCSIdent.
  45.  * 
  46.  * Revision 1.38  92/02/21  11:00:10  jonathan
  47.  * Changed logging of init message to WLOG_MEDIUM.
  48.  * 
  49.  * Revision 1.37  92/02/19  16:56:48  jonathan
  50.  * mucked a bit with the no-results case.
  51.  * 
  52.  * Revision 1.36  92/02/19  13:55:22  jonathan
  53.  * Return catalog as result if no hits to search.
  54.  * Plug some more memory leaks.
  55.  * 
  56.  * Revision 1.35  92/02/19  10:39:27  jonathan
  57.  * Off by one in last fix (headerNum>=0).  Fixed it.
  58.  * 
  59.  * Revision 1.34  92/02/19  10:16:04  jonathan
  60.  * Added code to handle too many headers for buffer.  Reduces the number of
  61.  * headers until they fit, and marks the log with a warning.
  62.  * 
  63.  * Revision 1.33  92/02/17  12:40:04  jonathan
  64.  * Return catalog as well as source description for help queries.
  65.  * 
  66.  * 
  67.  * Revision 1.32  92/02/12  13:20:49  jonathan
  68.  * Added "$Log" so RCS will put the log message in the header
  69.  * 
  70. */
  71.  
  72. #ifndef lint
  73. static char *RCSid = "$Header: /tmp_mnt/net/quake/proj/wais/wais-8-b5/ir/RCS/ir.c,v 1.49 92/05/10 14:43:35 jonathan Exp $";
  74. #endif
  75.  
  76. /*----------------------------------------------------------------------*/
  77. /* This code implements a simple Z39.50+WAIS server, which consults a 
  78.    local database using Brewster's search engine.  The main routine is
  79.    interpret_buffer() which reads the contents of a receive buffer, and 
  80.    writes results back to a send buffer.
  81.  
  82. The basic structure is:
  83.  
  84. interpret_buffer gets bytes and returns bytes from whatever transport 
  85.    mechanism. It calls either handleInit (which handles init requests)
  86.    or handleSearch.
  87.  
  88. handleSearch calls either handleRelevanceFeedbackSearch or 
  89.    handleElementRetrieval based on the type of question.
  90.  
  91. handleElementRetrieval calls getData or getDocumentText to answer that 
  92.    question.
  93.  
  94. handleRelevanceFeedbackSearch calls run_search and/or help_header to answer 
  95.    the question.
  96.  
  97.  
  98. A server must supply:
  99.   getData, getDocumentText, run_search, and help_header
  100. then it should work.
  101.  
  102.    To do:
  103.    - help facilities:
  104.      on a null query pass back random documents from the pool (?)
  105.    - Add dates to search responses
  106.  */
  107.  
  108. /* change log:
  109.  *  3/91 fixed db name defaulting for info server
  110.  *  5/31/91 fixed handleRelevanceFeedbackSearch to do search if
  111.  *          no seedwords but relevant document supplied - JG
  112.  *  5/31/91 fixed databaseName in handleElementRetrieval - HWM
  113.  *  7/19/91 fixed handleElementRetrieval prototype -BK
  114.  */
  115. /*----------------------------------------------------------------------*/
  116.  
  117. #include "server.h"
  118. #include "ir.h"
  119. #include "wprot.h"
  120. #include "irsearch.h"
  121. #include "docid.h"
  122. #include "cutil.h"
  123. #include "irfiles.h" /* for pathname_name */
  124. #include "irretrvl.h"
  125. #include "sockets.h"  /* for connect_to_server */
  126. #include "panic.h"
  127.  
  128. #include <string.h>
  129. #include <ctype.h>
  130. #include <math.h>
  131.  
  132. #ifdef ANSI_LIKE
  133. #include <stdlib.h>
  134. #else
  135. #include "ustubs.h"
  136. #endif
  137.  
  138. #include <sys/stat.h>
  139. #include "irdirent.h"
  140.  
  141. /* forward declarations */
  142.  
  143. static boolean needs_help _AP ((char *question));
  144.  
  145. static WAISDocumentHeader *help_header _AP((char *database_name, 
  146.                         char *index_directory));
  147.  
  148. static WAISDocumentHeader *catalog_header _AP((char *database_name, 
  149.                            char *index_directory,
  150.                            boolean results));
  151.  
  152. static void handleInit _AP((char** recBuf,char** sendBuf,
  153.                 long* sendBufLen,
  154.                 long* maxBufLen));
  155.                        
  156. static void handleSearch _AP((char** recBuf,char** sendBuf,
  157.                   long* sendBufLen,
  158.                   long waisProtocolVersion,
  159.                   char *index_directory));
  160.  
  161. static void handleRelevanceFeedbackSearch _AP((SearchAPDU* search,
  162.                            char** sendBuf,long* sendBufLen,
  163.                            long waisProtocolVersion,
  164.                            char *index_directory));
  165.                                           
  166. static void handleElementRetrieval _AP((SearchAPDU* search,
  167.                     char** sendBuf,
  168.                     long* sendBufLen,
  169.                     long waisProtocolVersion,
  170.                     char *index_directory));
  171.                                    
  172. static void handleFTPSearch _AP((SearchAPDU* search,
  173.                  char** sendBuf,long* sendBufLen,
  174.                  long waisProtocolVersion,
  175.                  char *index_directory));
  176.  
  177. #define isdoctype(doc, doctype) \
  178.  (((doc) != NULL) && \
  179.  ((doc)->Type != NULL) && \
  180.  !strcmp((doc)->Type, doctype))
  181.  
  182. #ifdef Mach
  183. #include <sys/inode.h>
  184. #define S_ISDIR(f_mode) (f_mode & IFDIR)
  185. #endif /* Mach */
  186.  
  187. #if (defined(NeXT) && !(defined(S_ISDIR)))
  188. #define S_ISDIR(f_mode) ((fmode) & S_IFDIR)
  189. #endif
  190.  
  191. /*----------------------------------------------------------------------*/
  192. /* Utility */
  193.   
  194. /*----------------------------------------------------------------------*/
  195. /* note - at present, it is not clear to me what the value of present-status
  196.    is, and how it is to be interpreted.  Furthermore, are our text retrieval
  197.    queries considered presents, or are they searches?
  198.  */
  199.  
  200.  
  201. /*----------------------------------------------------------------------*/
  202.  
  203. /* interpret_buffer()
  204. char* receiveBuffer - buffer containing data to interpret
  205. long receiveBufLen - how much data is there
  206. char* sendBuffer - buffer to write results to
  207. long sendBufLen - how much space there is to write to
  208. long* maxBufferSize - see below
  209. long waisProtocolVersion - what version of the wias protocol is in use
  210. char *index_directory - the directory to find the indexes on a search
  211.  
  212. maxBufferSize is a pointer to a per connection variable that contains the
  213. maximum size send/receive buffer to use.  Seems a lot like sendBufLen
  214. does't it.  Well it usually is, but not always.
  215.  
  216. Here is how it works from a server's point of view.  
  217.  
  218. When the client connection is first established, the server spawns a new
  219. process to deal with it.  The new process contains a global variable
  220. (bufferSize in server.c) which is initialized to BUFSZ (defined in server.h).
  221. This is the physical size of the server's internal bufferes.
  222. Clearly that is the absolute maximum size of any z3950 message to or from
  223. this server.
  224.  
  225. So now *maxBufferSize = sendBufLen.  
  226.  
  227. Now, the first thing that a z3950 client is likely to do is send an init
  228. APDU.  The only useful thing (and it is useful) that the init APDU
  229. currently does is allow the client and server to negotiate the maxumum size
  230. of the messages that they will send.  This takes place somewhere down
  231. inside of the interpret_buffer() logic where the APDU's are decoded and
  232. response APDU's are recoded.  A pointer to bufferSize is passed to
  233. interpret_buffer() in the maxBufferSize argument, and if the buffer happens
  234. to contain an init message, bufferSize is changed (for the rest of the
  235. connection).
  236.  
  237. That is the only function maxBufferSize serves.  Note that I could have
  238. gotten rid of sendBufLen, and just used *maxBufferSize, but sendBufLen can
  239. be and does get modified by the z3950 APDU writting code, and we don't want
  240. the overall value being modified.
  241.  
  242. */
  243.  
  244. long
  245. interpret_buffer(receiveBuffer,
  246.             receiveBufLen,
  247.             sendBuffer,
  248.             sendBufLen,
  249.             maxBufferSize,
  250.             waisProtocolVersion,
  251.             index_directory)
  252. char* receiveBuffer;
  253. long receiveBufLen;
  254. char* sendBuffer;
  255. long sendBufLen;
  256. long* maxBufferSize;
  257. long waisProtocolVersion;
  258. char *index_directory;
  259. /* read & interpret receiveBuffer until receiveBufLen.  Write results into
  260.    send buffer.  Return number of bytes written - negative if there was an 
  261.    error 
  262.  */
  263. {
  264.   char* readPos = receiveBuffer;
  265.   char* writePos = sendBuffer;
  266.  
  267.   while (readPos - receiveBuffer < receiveBufLen && /* there is more to read */
  268.          writePos != NULL    /* no write error */
  269.      )
  270.     { pdu_type pdu = peekPDUType(readPos);
  271.       switch (pdu)
  272.     { case initAPDU:
  273.         handleInit(&readPos,&writePos,&sendBufLen,maxBufferSize);
  274.         break;
  275.       case searchAPDU:
  276.         handleSearch(&readPos,&writePos,&sendBufLen,
  277.              waisProtocolVersion, index_directory);
  278.         break;
  279.       default:
  280.         /* unknown APDU error */
  281.         writePos = NULL;
  282.         waislog(WLOG_HIGH, WLOG_ERROR,
  283.             "Error in interpret_message: unknown APDU type.");
  284.         break;
  285.       }
  286.     }
  287.   
  288.   if(writePos == NULL) {
  289.     waislog(WLOG_HIGH, WLOG_ERROR,
  290.         "Error in interpret_message: NULL writePos.");
  291.     return (0);
  292.   }
  293.   else return(writePos - sendBuffer);
  294. }
  295.  
  296. /*----------------------------------------------------------------------*/
  297.  
  298. static void handleInit _AP((char** recBuf,char** sendBuf,
  299.                 long* sendBufLen,long* maxBufferSize));
  300.  
  301. static void
  302. handleInit(recBuf,sendBuf,sendBufLen,maxBufferSize)
  303. char** recBuf;
  304. char** sendBuf;
  305. long* sendBufLen;
  306. long* maxBufferSize;
  307. /* negotiate functionality and buffer sizes.  A session ususally begins
  308.    with one of these, but is not required to.  
  309.    NOTE - even if the server decides not to accept the client, it does
  310.    not shut down the connection.  It simply declies acceptatance, and 
  311.    waits for the client to shut down.
  312.  */
  313. {
  314.   InitAPDU* anInit = NULL;
  315.   
  316.   /* read the init - note there is no WAIS protocol extension here */
  317.   *recBuf = readInitAPDU(&anInit,*recBuf);
  318.   
  319.   if (recBuf == NULL || *recBuf == NULL)
  320.     { *sendBuf = NULL;        /* error in the read */
  321.       return;
  322.     }
  323.   else                /* respond to the init */
  324.     { InitResponseAPDU* reply = NULL;
  325.       WAISInitResponse* wais_response = NULL;
  326.       boolean connectionAccepted;
  327.      
  328.       /* negotiate services */
  329.       if (anInit->willPresent == false &&
  330.       anInit->willDelete == false)
  331.     connectionAccepted = true;
  332.       else
  333.     connectionAccepted = false;
  334.        
  335.       /* negotiate buffer sizes */
  336.       if (*maxBufferSize > anInit->MaximumRecordSize)
  337.     *maxBufferSize = anInit->MaximumRecordSize;
  338.      
  339.       if(anInit->IDAuthentication != NULL)
  340.     waislog(WLOG_MEDIUM, WLOG_INFO, "Init message: %s", 
  341.         anInit->IDAuthentication);
  342.  
  343.       /* not much use huh? */
  344.       wais_response = makeWAISInitResponse(0L,0L,NULL,NULL,NULL,NULL); 
  345.      
  346.       reply = makeInitResponseAPDU(connectionAccepted,
  347.                    true,false,false,false,false,*maxBufferSize,
  348.                    *maxBufferSize,NULL,
  349.                    defaultImplementationID(),
  350.                    defaultImplementationName(),
  351.                    defaultImplementationVersion(),NULL,
  352.                    wais_response);
  353.  
  354.       /* write it */
  355.       *sendBuf = writeInitResponseAPDU(reply,*sendBuf,sendBufLen);
  356.      
  357.       /* free everything */
  358.       freeInitAPDU(anInit);
  359.       freeInitResponseAPDU(reply);
  360.       freeWAISInitResponse(wais_response);
  361.     }
  362. }
  363.  
  364.  
  365. /*----------------------------------------------------------------------*/
  366. static boolean
  367. isRemoteDB(db)
  368. char * db;
  369. {
  370.   return(strchr(db,'@') != NULL);
  371. }
  372.  
  373. /*----------------------------------------------------------------------*/
  374. #include "wmessage.h"
  375.  
  376. struct {
  377.   char host[256];
  378.   long port;
  379.   FILE *connection;
  380.   long buffer_size;
  381. } last_connection;
  382.  
  383. static void
  384. forwardSearch(aSearch,sendBuf,sendBufLen,waisProtocolVersion)
  385. SearchAPDU* aSearch;
  386. char** sendBuf;
  387. long* sendBufLen;
  388. long waisProtocolVersion;
  389. {
  390.   FILE *connection;
  391.   char hostname[1000], db[1000], *p, *p2;
  392.   long port, len, rlen;
  393.   char message[BUFSZ], response[BUFSZ];
  394.  
  395.   p = strchr(aSearch->DatabaseNames[0], '@');
  396.   strncpy(db, aSearch->DatabaseNames[0], p-aSearch->DatabaseNames[0]);
  397.   db[p-aSearch->DatabaseNames[0]] = 0;
  398.   p2 = strchr(p+1, ':');
  399.   if(p2 == NULL) {
  400.     strcpy(hostname, p+1);
  401.     port = 210;
  402.   }
  403.   else {
  404.     strncpy(hostname, p+1, p2-(p+1));
  405.     hostname[p2-(p+1)] = 0;
  406.     port = atoi(p2+1);
  407.   }
  408.  
  409.   strcpy(aSearch->DatabaseNames[0], db);
  410.   rlen = len = BUFSZ;
  411.   writeSearchAPDU(aSearch, message+HEADER_LENGTH, &len);
  412.   len = BUFSZ-len;
  413.   if(hostname[0] != 0) {
  414.     if(strcmp(hostname, last_connection.host) == 0 &&
  415.        port == last_connection.port)
  416.       connection = last_connection.connection;
  417.     else {
  418.       if (last_connection.connection != NULL)
  419.     close_connection(last_connection.connection);
  420.       strcpy(last_connection.host, hostname);
  421.       last_connection.port = port;
  422.       last_connection.connection = (FILE*)connect_to_server(hostname, port);
  423.       connection = last_connection.connection;
  424.       if(connection != NULL) {
  425.     char userInfo[500], hostname[80], init_message[1000];
  426.  
  427.     gethostname(hostname, 80);
  428. #ifdef TELL_USER
  429.     sprintf(userInfo, "server forwarding %s, from host: %s, user: %s",
  430.         VERSION, hostname, getenv("USER"));
  431. #else
  432.     sprintf(userInfo, "server forwarding %s, from host: %s", VERSION, hostname);
  433. #endif
  434.  
  435.     last_connection.buffer_size =
  436.       init_connection(init_message, response,
  437.               BUFSZ,
  438.               connection,
  439.               userInfo);
  440.       }
  441.     }
  442.     if(connection != NULL)
  443.       {
  444.     len = interpret_message(message, len,
  445.                 response, last_connection.buffer_size,
  446.                 connection, false);
  447.       }
  448.     else {
  449.       static diagnosticRecord* diags[2] = {NULL, NULL};
  450.       SearchResponseAPDU* response = NULL;
  451.       WAISSearchResponse* wais_response = NULL;
  452.       char message[255];
  453.  
  454.       sprintf(message, "Database not available: %s@%s:%d.",
  455.           db, last_connection.host, last_connection.port);
  456.       diags[0] = makeDiag(true,D_RecordNotAuthorizedToBeSent,
  457.               message);
  458.  
  459.       wais_response = makeWAISSearchResponse(NULL,NULL,NULL,
  460.                          NULL,NULL,NULL,NULL,diags);
  461.       response = makeSearchResponseAPDU(0L,0L,
  462.                     1L,
  463.                     0L,UNUSED,FAILURE,
  464.                     aSearch->ReferenceID, wais_response);
  465.       *sendBuf = writeSearchResponseAPDU(response,*sendBuf,sendBufLen);
  466.  
  467.       freeSearchResponseAPDU(response);
  468.       freeWAISSearchResponse(wais_response);
  469.       waislog(WLOG_HIGH, WLOG_ERROR, message);
  470.       return;
  471.     }
  472.   }
  473.   else
  474.     len = interpret_message(message, len,
  475.                 response, last_connection.buffer_size,
  476.                 NULL, false);
  477.   bcopy(response+HEADER_LENGTH, *sendBuf, len);
  478.   *sendBuf+=len;
  479. }
  480.  
  481. /*----------------------------------------------------------------------*/
  482.  
  483. static void
  484. handleSearch(recBuf,sendBuf,sendBufLen,waisProtocolVersion,index_directory)
  485. char** recBuf;
  486. char** sendBuf;
  487. long* sendBufLen;
  488. long waisProtocolVersion;
  489. char *index_directory;
  490. /* figure out what kind of search this is, (query or retrieval) and
  491.    dispatch to the appropriate function 
  492.  */
  493. {
  494.   SearchAPDU* aSearch = NULL;
  495.  
  496.   /* read the search data */
  497.   *recBuf = readSearchAPDU(&aSearch,*recBuf);
  498.  
  499.   if (*recBuf == NULL)
  500.     { *sendBuf = NULL;        /* error in the read */
  501.       return;
  502.     }
  503.   else
  504.     {                /* dispatch on the query type */
  505.       if((aSearch->DatabaseNames != NULL) &&
  506.      (aSearch->DatabaseNames[0] != NULL) &&
  507.      isRemoteDB(aSearch->DatabaseNames[0]))
  508.     forwardSearch(aSearch,sendBuf,sendBufLen,waisProtocolVersion);
  509.       else {
  510.     if (strcmp(aSearch->QueryType,QT_TextRetrievalQuery) == 0) {
  511.       handleElementRetrieval(aSearch,sendBuf,sendBufLen,
  512.                  waisProtocolVersion, index_directory);
  513.     }
  514.     else if (strcmp(aSearch->QueryType,QT_RelevanceFeedbackQuery) == 0) {
  515.       char *seeds, *s;
  516.  
  517.       s = seeds = s_strdup(((WAISSearch *)aSearch->Query)->SeedWords);
  518.       while(*s != 0) {
  519.         if(*s == '\n' || *s == '\r') *s = ' ';
  520.         s++;
  521.       }
  522.  
  523.       if(aSearch->DatabaseNames != NULL &&
  524.          aSearch->DatabaseNames[0] != NULL)
  525.         waislog(WLOG_LOW, WLOG_SEARCH,
  526.             "Search! Database: %s, Seed Words: %s", 
  527.             aSearch->DatabaseNames[0], 
  528.             seeds);
  529.       else
  530.         waislog(WLOG_LOW, WLOG_SEARCH, 
  531.             "Search! Database: None, Seed Words: %s", 
  532.             seeds);
  533.  
  534.       handleRelevanceFeedbackSearch(aSearch,sendBuf,sendBufLen,
  535.                     waisProtocolVersion,
  536.                     index_directory);
  537.     }
  538.     else {
  539.       waislog(WLOG_HIGH, WLOG_ERROR, "Unknown search type");
  540.       *sendBuf = NULL;    /* error - unknown search type */
  541.     }
  542.     fflush(stderr);
  543.       }
  544.     }
  545. }
  546.  
  547.  
  548.      
  549.  
  550. /*----------------------------------------------------------------------*/
  551.  
  552. static boolean needs_help(question)
  553. char *question;
  554. /* returns true if the user wants help */
  555. {
  556.   if(question[0] == '\0')  /* null question, must need help */
  557.     return(true);
  558.   if(question[0] == '?')
  559.     return(true);
  560.   if(question[0] == '*')
  561.     return(true);
  562.   if(strlen(question) < 20){
  563.     if((NULL != strstr(question, "help")) ||
  564.        (NULL != strstr(question, "HELP")) ||
  565.        (NULL != strstr(question, "Help")) ||
  566.        (NULL != strstr(question, "all"))){
  567.       return(true);
  568.     }      
  569.   }
  570.   return(false);
  571. }
  572.  
  573. /* returns a help header to be returned or NULL if not possible */
  574. static WAISDocumentHeader *help_header(database_name, index_directory)
  575.      char *database_name;
  576.      char *index_directory;
  577. {
  578.   /* make a help document */
  579.   hit help;
  580.   char local_id[MAX_FILENAME_LEN + 60];
  581.  
  582.   strncpy(help.filename,
  583.       merge_pathnames(database_name,index_directory), 
  584.       MAX_FILENAME_LEN);
  585.   strncat(help.filename, source_ext, MAX_FILENAME_LEN);
  586.   /* printf("help filename %s", help.filename); */
  587.  
  588.   strncpy(help.headline, "Information on database: ", MAX_FILENAME_LEN);
  589.   strncat(help.headline, pathname_name(database_name), 
  590.       MAX_FILENAME_LEN);
  591.   sprintf(local_id, "%ld %ld %s", 0L, 0L, help.filename);
  592.  
  593.   if(probe_file(help.filename))
  594.     { 
  595.       DocID* theDocID = NULL;
  596.       long length;
  597.       long lines;
  598.       char **type = NULL;
  599.  
  600.       help.start_character = 0;
  601.       help.end_character = 0;
  602.     
  603.       { FILE *stream = s_fopen(help.filename, "r");
  604.     lines = count_lines(stream);
  605.     length = file_length(stream);
  606.         s_fclose(stream);
  607.       }
  608.  
  609.       type = (char**)s_malloc((size_t)(sizeof(char*) * 2));
  610.       type[0] = s_strdup("WSRC");
  611.       type[1] = NULL;
  612.  
  613.       /* then there is a source structure to return */
  614.       theDocID = makeDocID();
  615.       theDocID->originalDatabase = stringToAny(database_name); /* XXX */
  616.       theDocID->originalLocalID = stringToAny(local_id);
  617.  
  618.       return(makeWAISDocumentHeader(anyFromDocID(theDocID),
  619.                     UNUSED,
  620.                     MAX_NORMAL_SCORE,
  621.                     UNUSED,
  622.                     length,lines,
  623.                     type,
  624.                     s_strdup(database_name), /* XXX */
  625.                     NULL, /* date */
  626.                     s_strdup(help.headline),
  627.                     NULL));
  628.     }    
  629.   else 
  630.     return(NULL);
  631. }
  632.  
  633. /* returns the catalog document to be returned or NULL if not possible */
  634.  
  635. static WAISDocumentHeader *catalog_header(database_name, index_directory, results)
  636.      char *database_name;
  637.      char *index_directory;
  638.      boolean results;
  639. {
  640.   /* make a help document */
  641.   hit catalog;
  642.   char local_id[MAX_FILENAME_LEN + 60];
  643.  
  644.   strncpy(catalog.filename,
  645.       merge_pathnames(database_name,index_directory), 
  646.       MAX_FILENAME_LEN);
  647.   strncat(catalog.filename, catalog_ext, MAX_FILENAME_LEN);
  648.   /* printf("catalog filename %s", catalog.filename); */
  649.  
  650.   if(results)
  651.     strncpy(catalog.headline,
  652.         "Catalog for database: ",
  653.         MAX_FILENAME_LEN);
  654.   else
  655.     strncpy(catalog.headline,
  656.         "Search produced no result. Here's the Catalog for database: ",
  657.         MAX_FILENAME_LEN);
  658.  
  659.   strncat(catalog.headline, pathname_name(database_name), 
  660.       MAX_FILENAME_LEN);
  661.   sprintf(local_id, "%ld %ld %s", 0L, 0L, catalog.filename);
  662.  
  663.   if(probe_file(catalog.filename))
  664.     { 
  665.       DocID* theDocID = NULL;
  666.       long length;
  667.       long lines;
  668.       char **type = NULL;
  669.  
  670.       catalog.start_character = 0;
  671.       catalog.end_character = 0;
  672.     
  673.       { FILE *stream = s_fopen(catalog.filename, "r");
  674.     lines = count_lines(stream);
  675.     length = file_length(stream);
  676.         s_fclose(stream);
  677.       }
  678.  
  679.       type = (char**)s_malloc((size_t)(sizeof(char*) * 2));
  680.       type[0] = s_strdup("TEXT");
  681.       type[1] = NULL;
  682.  
  683.       /* then there is a catalog structure to return */
  684.       theDocID = makeDocID();
  685.       theDocID->originalDatabase = stringToAny(database_name); /* XXX */
  686.       theDocID->originalLocalID = stringToAny(local_id);
  687.  
  688.       return(makeWAISDocumentHeader(anyFromDocID(theDocID),
  689.                     UNUSED,
  690.                     (results ? MAX_NORMAL_SCORE:0),
  691.                     UNUSED,
  692.                     length,lines,
  693.                     type,
  694.                     s_strdup(database_name), /* XXX */
  695.                     NULL, /* date */
  696.                     s_strdup(catalog.headline),
  697.                     NULL));
  698.     }    
  699.   else 
  700.     return(NULL);
  701. }
  702.  
  703. /* picks a set of random documents from the database 
  704. static void pick_random_documents(aSearch, headers, &headerNum)
  705. {
  706.   
  707. }
  708. */
  709.  
  710.  
  711. /*----------------------------------------------------------------------*/
  712.  
  713. static void
  714. handleRelevanceFeedbackSearch(aSearch,sendBuf,sendBufLen,
  715.                   waisProtocolVersion,
  716.                   index_directory)
  717. SearchAPDU* aSearch;
  718. char** sendBuf;
  719. long* sendBufLen;
  720. long waisProtocolVersion;
  721. char *index_directory;
  722. { 
  723.   DocObj *doc = NULL;
  724.   SearchResponseAPDU* response = NULL;
  725.   WAISSearchResponse* wais_response = NULL;
  726.  
  727.   WAISDocumentHeader** headers = NULL;
  728.   long headerNum = 0;
  729.   long max_headers = ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved;
  730.   char* seedwords_used = NULL;
  731.   diagnosticRecord** diags = NULL;
  732.   char *seed_words_used = s_strdup(((WAISSearch *)aSearch->Query)->SeedWords);
  733.   boolean search_status;
  734.  
  735.   if(((WAISSearch *)aSearch->Query)->Docs!=NULL &&
  736.      (doc=((WAISSearch *)aSearch->Query)->Docs[0]) != NULL &&
  737.      (isdoctype(doc, "TEXT-FTP") || isdoctype(doc, "FTP-DIR"))) {
  738.     handleFTPSearch(aSearch,sendBuf,sendBufLen, waisProtocolVersion, index_directory);
  739.     return;
  740.   }
  741.  
  742.   /* construct a response list */
  743.   headers = (WAISDocumentHeader**)
  744.     s_malloc((size_t)
  745.          (sizeof(WAISDocumentHeader*) * 
  746.           (1 + max_headers)));
  747.   headers[0] = NULL;
  748.  
  749.   if(0 != init_search_engine(index_directory, false, true, 0, 0, 0))
  750.     panic("unable to initialize search engine");
  751.   
  752.   /* handle help queries */
  753.   if(seed_words_used[0] == '\0' &&
  754.      ((WAISSearch *)aSearch->Query)->Docs != NULL) {
  755.     1;
  756.   }
  757.   else if(needs_help(seed_words_used)) {
  758.       WAISDocumentHeader *header;
  759.       char *database_name = (aSearch->DatabaseNames == NULL) ?
  760.       INFO_DATABASE_NAME : aSearch->DatabaseNames[0];
  761.  
  762.     if(headerNum < max_headers) {
  763.       header = help_header(database_name, index_directory);
  764.       if(NULL != header) {
  765.     headers[headerNum++] = header;
  766.     headers[headerNum] = NULL;    
  767.     ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved--;
  768.       }
  769.     }
  770.     if(headerNum < max_headers) {
  771.       header = catalog_header(database_name, index_directory, true);
  772.       if(NULL != header){
  773.     headers[headerNum++] = header;
  774.     headers[headerNum] = NULL;    
  775.     ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved--;
  776.       }
  777.     }
  778.   }
  779.  
  780.   if(seed_words_used[0] == '\0' &&
  781.      ((WAISSearch *)aSearch->Query)->Docs == NULL)
  782.    {
  783.      /* pick_random_documents(aSearch, headers, &headerNum); */
  784.      search_status = true;
  785.    }
  786.   else
  787.    { /* run the search on the database.  If a new
  788.     search engine were to be used, this is where it would be hooked in */
  789.      search_status = run_search(aSearch, headers,&diags, index_directory, 
  790.                 &seed_words_used, waisProtocolVersion,
  791.                 &headerNum);
  792.    }
  793.  
  794. #define CATALOG_FOR_NO_RESULTS
  795. #ifdef CATALOG_FOR_NO_RESULTS
  796.   if(headerNum == 0 && headerNum < max_headers) {
  797.     char *database_name = (aSearch->DatabaseNames == NULL) ?
  798.       INFO_DATABASE_NAME : aSearch->DatabaseNames[0];
  799.     WAISDocumentHeader *header = catalog_header(database_name, index_directory, false);
  800.  
  801.     if(NULL != header){
  802.       waislog(WLOG_MEDIUM, WLOG_INFO,
  803.           "Search had no hits, returning catalog");
  804.       headers[headerNum++] = header;
  805.       headers[headerNum] = NULL;    
  806.     }
  807.   }
  808. #endif /* CATALOG_FOR_NO_RESULTS */
  809.  
  810.   wais_response = makeWAISSearchResponse(seedwords_used,headers,NULL,
  811.                                          NULL,NULL,NULL,NULL,diags);
  812.   response = makeSearchResponseAPDU(search_status,0L,
  813.                     headerNum + ((diags == NULL) ? 0 : 1),
  814.                     0L,UNUSED,SUCCESS,
  815.                                     aSearch->ReferenceID, wais_response);
  816.   /* write it */
  817.   {
  818.     char *buff;
  819.     long len;
  820.     boolean it_fit = true;
  821.  
  822.     while(headerNum >= 0) {
  823.       buff = *sendBuf;
  824.       len = *sendBufLen;
  825.       if ((buff = writeSearchResponseAPDU(response,buff,&len)) == NULL) {
  826.  
  827.     it_fit = false; /* didn't make it in the buffer. */
  828.     headerNum--; 
  829.     s_free(headers[headerNum]);
  830.     headers[headerNum] = NULL;
  831.  
  832.     s_free(wais_response);
  833.     wais_response = makeWAISSearchResponse(seedwords_used,headers,NULL,
  834.                            NULL,NULL,NULL,NULL,diags);
  835.     
  836.     freeSearchResponseAPDU(response);
  837.     response = makeSearchResponseAPDU(search_status,0L,
  838.                       headerNum + ((diags == NULL) ? 0:1),
  839.                       0L,UNUSED,SUCCESS,
  840.                       aSearch->ReferenceID, wais_response);
  841.       }
  842.       else {
  843.     break;
  844.       }
  845.     }
  846.     *sendBuf = buff;
  847.     *sendBufLen = len;
  848.     if (!it_fit) {
  849.       waislog(WLOG_HIGH, WLOG_WARNING, 
  850.           "Buffer overflow, adjusted results from %ld", 
  851.           ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved);
  852.     }
  853.   }
  854.  
  855.   { /* generate report on results. */
  856.     char *message;
  857.     long size, i;
  858.  
  859.     /* calculate total length needed for log report */
  860.     for(size = 0L, i = 0; i < headerNum; i++) 
  861.       size+=(headers[i]->DocumentID->size+2);
  862.     if (size > 0) {
  863.       message = s_malloc(size);
  864.       message[0] = 0;
  865.  
  866.       for (i = 0; i < headerNum; i++) {
  867.     char docname[MAX_FILE_NAME_LEN+50];
  868.     DocID *docid = docIDFromAny(headers[i]->DocumentID);
  869.     char *docidstring = anyToString(GetLocalID(docid));
  870.  
  871.     sprintf(docname, "%s", docidstring);
  872.     s_strncat(message, docname, headers[i]->DocumentID->size, size);
  873.  
  874.     s_free(docid); s_free(docidstring);
  875.  
  876.     if ( i < headerNum-1)
  877.       strcat(message, ", ");
  878.       }
  879.       waislog(WLOG_MEDIUM, WLOG_RESULTS, "Returned %d results", headerNum);
  880.       waislog(WLOG_LOW, WLOG_RESULTS, "Results: %s", message);
  881.       s_free(message);
  882.     }
  883.     else
  884.       waislog(WLOG_LOW, WLOG_RESULTS,
  885.           "Returned 0 results.  Aww.");
  886.   }
  887.   freeWAISSearch((WAISSearch*)aSearch->Query); 
  888.   freeSearchAPDU(aSearch);
  889.   freeSearchResponseAPDU(response);
  890.   freeWAISSearchResponse(wais_response); /* free headers & seed_words_used */
  891. }
  892.  
  893. /*----------------------------------------------------------------------*/
  894.  
  895. static void 
  896. handleElementRetrieval(aSearch,sendBuf,sendBufLen,waisProtocolVersion, index_directory)
  897. SearchAPDU* aSearch;
  898. char** sendBuf;
  899. long* sendBufLen;
  900. long waisProtocolVersion;
  901. char *index_directory;
  902. /* this is a type 1 query of the restricted form specified in the 
  903.    WAIS-protocol.  Interpret it and write out an appropriate search
  904.    response. (note the valid element sets are Document-Text,Document-Headlines,
  905.    and Document-Codes but we only support text for now).
  906.  */
  907. { 
  908.   SearchResponseAPDU* response = NULL;
  909.   WAISSearchResponse* wais_response = NULL;
  910.   DocObj** docs = NULL;
  911.   DocObj* doc = NULL;
  912.   char *databaseName;
  913.   void **elementList = NULL;
  914.   void *element = NULL;
  915.   diagnosticRecord** diags = NULL;
  916.   diagnosticRecord* diag = NULL;
  917.   long numDiags = 0L;
  918.   long numElements = 0L;
  919.   long i;
  920.   database* db;
  921.   char* new_db_name;
  922.   
  923.   /* read the query */
  924.   docs = readWAISTextQuery((any*)aSearch->Query);
  925.   databaseName = (aSearch->DatabaseNames == NULL) ?
  926.     INFO_DATABASE_NAME : aSearch->DatabaseNames[0];
  927.  
  928.   new_db_name = merge_pathnames(databaseName, index_directory);
  929.  
  930.   /* assemble the elements and construct a response */
  931.   for (i = 0L, doc = docs[i]; doc != NULL; doc = docs[++i])
  932.    { 
  933.      long errorCode;
  934.      any* bufAny;
  935.      long size;
  936.  
  937.      if (doc->Type != NULL &&
  938.      strcmp(doc->Type, "WAIS_NEXT") == 0) {
  939.        char docname[MAX_FILE_NAME_LEN+50], *buffer;
  940.  
  941.        db = openDatabase(new_db_name, false, true);
  942.        if ((size = 
  943.         next_doc(docname, 
  944.              anyToString(GetLocalID(docIDFromAny(doc->DocumentID))),
  945.              db))
  946.        > 0) {
  947.      buffer = s_malloc(strlen(docname)+50);
  948.      sprintf(buffer, "%s, %d", docname, size);
  949.      bufAny = makeAny(strlen(buffer)+1,buffer);
  950.      element = (void*)makeWAISDocumentText(duplicateAny(doc->DocumentID),0L,bufAny);
  951.        }
  952.        else element = NULL;
  953.        closeDatabase(db);
  954.      }
  955.      else if (doc->Type != NULL &&
  956.           strcmp(doc->Type, "WAIS_PREV") == 0) {
  957.        char docname[MAX_FILE_NAME_LEN+50], *buffer;
  958.        any* bufAny;
  959.        long size;
  960.  
  961.        db = openDatabase(new_db_name, false, true);
  962.        if ((size = 
  963.         previous_doc(docname, 
  964.              anyToString(GetLocalID(docIDFromAny(doc->DocumentID))),
  965.              db))
  966.        > 0) {
  967.      buffer = s_malloc(strlen(docname)+50);
  968.      sprintf(buffer, "%s, %d", docname, size);
  969.      bufAny = makeAny(strlen(buffer),buffer);
  970.      element = (void*)makeWAISDocumentText(duplicateAny(doc->DocumentID),0L,bufAny);
  971.        }
  972.        else element = NULL;
  973.        closeDatabase(db);
  974.      }
  975.      else if (doc->ChunkCode == CT_line)
  976.        element = (void*)getDocumentText(doc, &errorCode, index_directory);
  977.      else if (doc->ChunkCode == CT_byte)
  978.        element = (void*)getData(doc, &errorCode, index_directory);
  979.  
  980.      if (errorCode != GDT_NoError)
  981.        {            /* make a diagnostic record to return */
  982.      switch (errorCode)
  983.        { case GDT_UnsupportedChunkType:
  984.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  985.                    "Bad ChunkType in Request");
  986.            break;
  987.          case GDT_BadDocID:
  988.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  989.                    "Bad DocID in request");
  990.            break;
  991.          case GDT_MissingDocID:
  992.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  993.                    "Missing DocID in request");
  994.            break;
  995.          case GDT_BadRange:
  996.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  997.                    "Request out of range");
  998.            break;
  999.          case GDT_MissingDatabase:
  1000.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  1001.                    "Database missing from request");
  1002.            break;
  1003.          case GDT_BadDatabase:
  1004.            diag = makeDiag(true,D_PresentRequestOutOfRange,
  1005.                    "File not present in specified database");
  1006.            break;
  1007.          default:
  1008.            /* should never get here */
  1009.            diag = NULL;
  1010.            break;
  1011.          };
  1012.      diags = (diagnosticRecord**)s_realloc(diags,(size_t)(sizeof(diagnosticRecord*) * 
  1013.                                   (numDiags + 2)));
  1014.      diags[numDiags++] = diag;
  1015.      diags[numDiags] = NULL;
  1016.        }
  1017.      if (element != NULL)
  1018.        { if (elementList == NULL) /* create a list */
  1019.        { elementList = (void**)s_malloc((size_t)sizeof(void*) * 2);
  1020.        }
  1021.        else            /* grow the list */
  1022.      { elementList = (void**)s_realloc((char*)elementList,
  1023.                        (size_t)(sizeof(void*) * 
  1024.                             (numElements + 2)));
  1025.      }
  1026.        elementList[numElements++] = element; /* put it in the list */
  1027.        elementList[numElements] = NULL;
  1028.        }
  1029.    }
  1030.  
  1031.   wais_response = makeWAISSearchResponse(NULL,NULL,NULL,NULL,
  1032.                                          (WAISDocumentText**)elementList,NULL,
  1033.                                          NULL,diags);
  1034.   response = makeSearchResponseAPDU(SUCCESS,0L,numElements + numDiags,0L,UNUSED,
  1035.                                     SUCCESS,aSearch->ReferenceID,
  1036.                     wais_response);
  1037.   
  1038.   /* write it */
  1039.   *sendBuf = writeSearchResponseAPDU(response,*sendBuf,sendBufLen);
  1040.   
  1041.   /* clean up */
  1042.   freeAny((any*)aSearch->Query); /* have to explicitly free the user info */
  1043.   freeSearchAPDU(aSearch);
  1044.   freeSearchResponseAPDU(response);
  1045.   freeWAISSearchResponse(wais_response); /* frees the elements constructed */
  1046.   doList((void**)docs,freeDocObj);
  1047.   s_free(docs);  
  1048. }
  1049.  
  1050. /*----------------------------------------------------------------------*/
  1051.  
  1052. static void
  1053. handleFTPSearch(aSearch,sendBuf,sendBufLen,
  1054.         waisProtocolVersion,
  1055.         index_directory)
  1056. SearchAPDU* aSearch;
  1057. char** sendBuf;
  1058. long* sendBufLen;
  1059. long waisProtocolVersion;
  1060. char *index_directory;
  1061. {
  1062.   SearchResponseAPDU* response = NULL;
  1063.   WAISSearchResponse* wais_response = NULL;
  1064.  
  1065.   DocID *t;
  1066.   WAISDocumentHeader** headers = NULL;
  1067.   long headerNum = 0;
  1068.   long max_headers = ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved;
  1069.   DocObj *doc;
  1070.   char* seedwords_used = NULL;
  1071.   diagnosticRecord** diags = NULL;
  1072.   char *seed_words_used = s_strdup(((WAISSearch *)aSearch->Query)->SeedWords);
  1073.   char *database_name = (aSearch->DatabaseNames == NULL) ?
  1074.     INFO_DATABASE_NAME : aSearch->DatabaseNames[0];
  1075.   boolean search_status;
  1076.   int i=0;
  1077.   char *local_id,*p;
  1078.   long start,end;
  1079.   char path[200];
  1080. /*  char mpath[200]; Size is now assumed in getwd() */
  1081.   char mpath[MAX_FILENAME_LEN];
  1082.   int count;
  1083.  
  1084.   /* construct a response list */
  1085.   headers = (WAISDocumentHeader**)
  1086.     s_malloc((size_t)
  1087.          (sizeof(WAISDocumentHeader*) *
  1088.           (1 + max_headers)));
  1089.   headers[0] = NULL;
  1090.   for(doc=((WAISSearch *)aSearch->Query)->Docs[i]; ((WAISSearch *)aSearch->Query)->Docs[i]!=NULL;
  1091.       doc=((WAISSearch *)aSearch->Query)->Docs[++i]){
  1092.  
  1093.     t=docIDFromAny(doc->DocumentID);
  1094.     local_id = anyToString(GetLocalID(t));
  1095.     freeDocID(t);
  1096.     sscanf(local_id,"%ld %ld %s",&start,&end,path);
  1097.     if(strcmp(path, "/")) {
  1098.       p=strrchr(path,'/');
  1099.       if(p)
  1100.     *p='\0';
  1101.     }
  1102. /*    getwd(mpath,198); now second arg is assumed. andyj */
  1103.     getwd(mpath);
  1104.     if(index_directory && !substrcmp(path, index_directory))
  1105.       strcpy(path, index_directory);
  1106.  
  1107.     chdir(path);
  1108.  
  1109.     loadFileHeaders(path,headers,&headerNum,database_name, 
  1110.             ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved,
  1111.             index_directory); 
  1112.     chdir(mpath);
  1113.   }
  1114.   /**** jim jim jim */
  1115.   wais_response = makeWAISSearchResponse(seedwords_used,headers,NULL,
  1116.                      NULL,NULL,NULL,NULL,diags);
  1117.   response = makeSearchResponseAPDU(search_status,0L,
  1118.                     headerNum + ((diags == NULL) ? 0 : 1),
  1119.                     0L,UNUSED,SUCCESS,
  1120.                     aSearch->ReferenceID, wais_response);
  1121.   /* write it */
  1122.   {
  1123.     char *buff;
  1124.     long len;
  1125.     boolean it_fit = true;
  1126.  
  1127.     while(headerNum >= 0) {
  1128.       buff = *sendBuf;
  1129.       len = *sendBufLen;
  1130.       if (headerNum*(sizeof(WAISDocumentHeader)+100) > len || (buff = writeSearchResponseAPDU(response,buff,&len)) == NULL) {
  1131.  
  1132.     it_fit = false;        /* didn't make it in the buffer. */
  1133.     headerNum--;
  1134.     s_free(headers[headerNum]);
  1135.     headers[headerNum] = NULL;
  1136.  
  1137.     s_free(wais_response);
  1138.     wais_response = makeWAISSearchResponse(seedwords_used,headers,NULL,
  1139.                            NULL,NULL,NULL,NULL,diags);
  1140.  
  1141.     freeSearchResponseAPDU(response);
  1142.     response = makeSearchResponseAPDU(search_status,0L,
  1143.                       headerNum + ((diags == NULL) ? 0:1),
  1144.                       0L,UNUSED,SUCCESS,
  1145.                       aSearch->ReferenceID, wais_response);
  1146.       }
  1147.       else {
  1148.     break;
  1149.       }
  1150.     }
  1151.     *sendBuf = buff;
  1152.     *sendBufLen = len;
  1153.     if (!it_fit) {
  1154.       waislog(WLOG_HIGH, WLOG_WARNING,
  1155.  
  1156.           "Buffer overflow, adjusted results from %ld",
  1157.           ((WAISSearch *)aSearch->Query)->MaxDocumentsRetrieved);
  1158.     }
  1159.   }
  1160.   {                /* generate report on results. */
  1161.     char *message;
  1162.     long size, i;
  1163.  
  1164.     /* calculate total length needed for log report */
  1165.     for(size = 0L, i = 0; i < headerNum; i++)
  1166.       size+=(headers[i]->DocumentID->size+2);
  1167.     if (size > 0) {
  1168.       message = s_malloc(size);
  1169.       message[0] = 0;
  1170.  
  1171.       for (i = 0; i < headerNum; i++) {
  1172.     char docname[MAX_FILE_NAME_LEN+50];
  1173.     DocID *docid = docIDFromAny(headers[i]->DocumentID);
  1174.     char *docidstring = anyToString(GetLocalID(docid));
  1175.  
  1176.     sprintf(docname, "%s", docidstring);
  1177.     s_strncat(message, docname, headers[i]->DocumentID->size, size);
  1178.  
  1179.     s_free(docid); 
  1180.     s_free(docidstring);
  1181.  
  1182.     if ( i < headerNum-1)
  1183.       strcat(message, ", ");
  1184.       }
  1185.       waislog(WLOG_LOW, WLOG_RESULTS,
  1186.           "Returned %d results: %s", headerNum, message);
  1187.       s_free(message);
  1188.     }
  1189.     else
  1190.       waislog(WLOG_LOW, WLOG_RESULTS,
  1191.           "Returned 0 results.  Aww.");
  1192.   }
  1193.   freeWAISSearch((WAISSearch*)aSearch->Query);
  1194.   freeSearchAPDU(aSearch);
  1195.   freeSearchResponseAPDU(response);
  1196.   freeWAISSearchResponse(wais_response); /* free headers & seed_words_used */
  1197. }
  1198.  
  1199. static int
  1200.   alphasort(d1, d2)
  1201. struct dirent **d1;
  1202. struct dirent **d2;
  1203. {
  1204.   return strcmp((*d1)->d_name, (*d2)->d_name);
  1205. }
  1206.  
  1207. static int
  1208. filesonly(e)
  1209. struct dirent *e;
  1210. {
  1211.   struct stat sb;
  1212.   int val;
  1213.   val = (stat(e->d_name, &sb) >= 0 &&( (sb.st_mode & S_IFMT) == S_IFREG || (sb.st_mode & S_IFMT)==S_IFDIR));
  1214.   if((sb.st_mode & S_IFMT)==S_IFDIR){
  1215.     if(e->d_name[strlen(e->d_name)-1]=='.')
  1216.       return(0);
  1217.     strcat(e->d_name,"/");
  1218.   }
  1219.   return(val);
  1220. }
  1221.  
  1222. loadFileHeaders(path,headers, headerNum,database_name,maxf,index_directory)
  1223. char *path;
  1224. WAISDocumentHeader **headers;
  1225. long *headerNum;
  1226. char *database_name;
  1227. long maxf;
  1228. char *index_directory;
  1229. {
  1230.   register int i;
  1231.   register int j;
  1232.   int k;
  1233.   struct dirent **list;
  1234.   hit help;
  1235.   char local_id[MAX_FILENAME_LEN + 60];
  1236.   DocID* theDocID = NULL;
  1237.   struct stat sbuf;
  1238.   long length,flen;
  1239.   long lines;
  1240.   char **type = NULL;
  1241.   char *p,tmpb[200];
  1242.   int loop;
  1243.   int ch,text=1;
  1244.   FILE *fp;
  1245.  
  1246.   k = *headerNum;
  1247.   if ((i = scandir(".", &list, filesonly, alphasort)) < 0) {
  1248.     return;
  1249.   }
  1250.   if(strcmp(path, "/") &&
  1251.      (index_directory == NULL || 
  1252.       strcmp(path, index_directory))) {
  1253.     pathname_directory(path, help.filename);
  1254.     stat(help.filename,&sbuf);
  1255.     length=lines=sbuf.st_size;
  1256.     strncpy(help.headline, help.filename, MAX_FILENAME_LEN);
  1257.     sprintf(local_id, "%ld %ld %s", 0L, length, help.filename);
  1258.     theDocID = makeDocID();
  1259.     theDocID->originalDatabase = stringToAny(database_name); /* XXX */
  1260.     theDocID->originalLocalID = stringToAny(local_id);
  1261.     type = (char**)s_malloc((size_t)(sizeof(char*) * 2));
  1262.     strcpy(tmpb,help.filename);
  1263.     type[0] = s_strdup("FTP-DIR");
  1264.     type[1] = NULL;
  1265.  
  1266.     headers[k++]=makeWAISDocumentHeader(anyFromDocID(theDocID),
  1267.                     UNUSED, MAX_NORMAL_SCORE, UNUSED, length,lines, type,
  1268.                     s_strdup(database_name), /* XXX */
  1269.                     NULL, /* date */
  1270.                     s_strdup(help.headline),
  1271.                     NULL);
  1272.   }
  1273.  
  1274.   if(!strcmp(path, "/")) {
  1275.     *path = '\0';
  1276.   }
  1277.   for (j = 0; j < i; j++){
  1278.     if(k>=maxf)
  1279.       break;
  1280.     sprintf(help.filename,"%s/%s",path,list[j]->d_name);
  1281.     stat(list[j]->d_name,&sbuf);
  1282.     length=lines=sbuf.st_size;
  1283.     strncpy(help.headline, help.filename, MAX_FILENAME_LEN);
  1284.     sprintf(local_id, "%ld %ld %s", 0L, length, help.filename);
  1285.     theDocID = makeDocID();
  1286.     theDocID->originalDatabase = stringToAny(database_name); /* XXX */
  1287.     theDocID->originalLocalID = stringToAny(local_id);
  1288.     type = (char**)s_malloc((size_t)(sizeof(char*) * 2));
  1289.     strcpy(tmpb,help.filename);
  1290.     p=strrchr(tmpb,'.');
  1291.     if(p){
  1292.       ++p;
  1293.       if(!strcasecmp(p,"tar") || !strcasecmp(p,"shar"))
  1294.     text=0;
  1295.       else
  1296.     text=1;
  1297.     }
  1298.     if(text==1){
  1299.       fp=fopen(help.filename,"r");
  1300.       if(fp==NULL)
  1301.     text=0;
  1302.       else{
  1303.     fseek(fp,0L,2);
  1304.     flen=ftell(fp);
  1305.     for(loop=2; loop<100; loop++){
  1306.       fseek(fp,flen/loop,0);
  1307.       ch=fgetc(fp);
  1308.       if(ch==EOF || (!isprint(ch) && !isspace(ch)))
  1309.         text=0;
  1310.     }
  1311.     fclose(fp);
  1312.       }
  1313.     }
  1314.  
  1315.     if(S_ISDIR(sbuf.st_mode))
  1316.       type[0] = s_strdup("FTP-DIR");
  1317.     else if(text==0)
  1318.       type[0] = s_strdup("FTP");
  1319.     else
  1320.       type[0]=s_strdup("TEXT");
  1321.  
  1322.     type[1] = NULL;
  1323.  
  1324.     headers[k++]=makeWAISDocumentHeader(anyFromDocID(theDocID),
  1325.                     UNUSED, MAX_NORMAL_SCORE, 
  1326.                     UNUSED, length,lines, type,
  1327.                     s_strdup(database_name), /* XXX */
  1328.                     NULL, /* date */
  1329.                     s_strdup(help.headline),
  1330.                     NULL);
  1331.   }
  1332.   if(list != NULL) {
  1333.     for (j = 0; j < i; j++)
  1334.       if(list[j] != NULL) free((char *)list[j]);
  1335.     free((char *)list);
  1336.   }
  1337.   *headerNum = k;
  1338. }
  1339.